Самый простой рабочий промпт будет выглядеть таким образом:


( Read more... )

Введение

Важно понимать, зачем мы применяем большие языковые модели. Мы стремимся получить от них полный код программы на основе сформулированного технического задания.

В действительности, большинство специалистов, которые хотят получить готовую программу, стремятся упрощать формулировки заданий. Они желают, чтобы программа сама могла додумывать ( Read more... )

Есть конкретная задача - написать собственную программу на Python, которая подключится к запущенной LM Studio и можно будет задавать вопросы и получать ответы.

Задача имеет практическое значение - так можно каждой фирме реализовать локальные сервера для обработки критической информации и в больших объёмах бесплатно.

( Read more... )

Появилась новость, что:

Nvidia без лишнего шума представила новую модель искусственного интеллекта Llama-3.1-Nemotron-70B-Instruct, которая обогнала продукты лидеров рынка, такие как GPT-4 от OpenAI. Модель тихо разместили на платформе Hugging Face, где она сразу привлекла внимание благодаря выдающимся показателям на бенчмарках. Эксперты утверждают ( Read more... )

В продолжение предыдущей статьи «Провёл испытания локальных БЯМ(LLM)»: https://nikitayev.livejournal.com/145916.html

( Read more... )

Результаты можно посмотреть на Яндекс Диске (https://disk.yandex.ru/d/iP_f37VTFKm_rA):


Вы не робот?

disk.yandex.ru

Список участников:

• Athene 70b
• DeepSeek Coder V2 Instruct
• DeepSeek-V2.5
• Dracarys2-72B-Instruct
• Hermes-3-Llama-3.1-70B

Для организации оптимальной системы развития научных знаний и технологий на базе кооперации университетов и научно-производственных организаций необходимо пересмотреть стратегию подготовки специалистов.

В связи с активным внедрением искусственного интеллекта (ИИ) в различные отрасли, возникает необходимость обучать таких специалистов, которые ( Read more... )

Характеристики


( Read more... )

Click to view

LM Studio + модель starcoder2-15b.Q8_0.gguf.

Задавать вопросы можно на русском языке.

Главное - запустить эту модель получилось с пинка десятого. Очень нестабильное поведение. Но код более взрослый, чем у Mixtral 8x7B Instruct.

Стрелки указывают на важные параметры:


( Read more... )